Análisis Crítico del Precedente Zapata Vargas: Responsabilidad Profesional y el Desafío de las Alucinaciones de la IA

Descargar PDF del caso

La integración de la inteligencia artificial (IA) generativa en la práctica del derecho ha dejado de ser una promesa de eficiencia para convertirse en un terreno de colisión frontal con los principios más arraigados de la ética forense y la lealtad procesal. El caso del abogado Jorge Hernán Zapata Vargas, resuelto por la Sala de Casación Civil, Agraria y Rural de la Corte Suprema de Justicia mediante el Auto AC739-2026 (M.P. Martha Patricia Guzmán Álvarez), no representa un evento aislado de mala praxis, sino que se erige como el primer hito jurisprudencial en Colombia que delimita las fronteras de la responsabilidad profesional frente a las denominadas "alucinaciones" algorítmicas. Este caso posee una importancia estratégica fundamental para la integridad del sistema judicial, pues pone a prueba la capacidad de las altas cortes para preservar la fe pública y el debido proceso ante la irrupción de tecnologías que, bajo una apariencia de rigor técnico, tienen el potencial de introducir un "pseudo-derecho" en los estrados judiciales, erosionando la confianza institucional.

1. Contexto del Caso: La Génesis de una Alucinación Judicial

El litigio encuentra su origen en la sustentación de un recurso extraordinario de revisión interpuesto contra un fallo del 6 de junio de 2025, proferido por la Sala Civil Familia del Tribunal Superior de Villavicencio. Al presentar su memorial de sustentación, el apoderado judicial, Jorge Hernán Zapata Vargas, invocó las causales de revisión basándose en una arquitectura argumentativa que incluía citas normativas y jurisprudenciales que, tras una revisión técnica por parte de la Relatoría, resultaron ser inexistentes (Auto AC739-2026).

En el documento inicial, el apoderado citó el artículo 250 del Código General del Proceso (CGP), atribuyéndole numerales y contenidos relativos a la violación del derecho de defensa y la omisión de notificaciones. En realidad, dicho artículo regula la indivisibilidad y el alcance probatorio de los documentos, careciendo por completo de numerales (Auto AC739-2026). Acompañando esta imprecisión normativa, el abogado incluyó seis referencias a supuestas sentencias de casación (v.gr., SC-4061/2020, SC-5092/2019, SC-1730/2018, entre otras) que no figuraban en ningún repositorio oficial de la Corporación.

La cuestión jurídica central no radica únicamente en la falsedad de las citas, sino en la justificación posterior del profesional y su persistencia en el error. Tras ser requerido por la Corte para explicar las inconsistencias, Zapata Vargas admitió que las imprecisiones fueron "consecuencias y posiblemente de un programa de Inteligencia Artificial que se trabaja con el fin de agilizar las contestación y tramites" (Auto AC739-2026). Lo más grave, y que determinó la severidad de la sanción, fue la reincidencia: en su escrito de subsanación, el abogado incluyó cuatro nuevas citas jurisprudenciales igualmente inexistentes (v.gr., SC1295-2019, SC3316-2020), acumulando un total de diez referencias apócrifas ante la máxima instancia de la jurisdicción ordinaria. Es imperativo colegir que este comportamiento tensiona el estándar mínimo de lealtad procesal exigido a cualquier operador jurídico.

2. Doctrina Legal Previa y Marco Referencial

La arquitectura ética que rige la conducta del abogado en Colombia preexistía al auge de la IA. No obstante, esta tecnología ha tensionado los estándares de cumplimiento exigidos por el Código General del Proceso (CGP). La responsabilidad en este caso se fundamenta en una interpretación sistemática de los artículos 78 a 81 del CGP. El artículo 78 impone el deber de "proceder con lealtad y buena fe" y "obrar sin temeridad". Por su parte, el artículo 79, en su numeral 6, establece una presunción de temeridad o mala fe cuando "se hagan transcripciones o citas deliberadamente inexactas" (Auto AC739-2026).

Antes de esta providencia, la jurisprudencia ya había trazado líneas de advertencia:

1. Sentencia T-323 de 2024 (Corte Constitucional): Estableció criterios orientadores para el uso de IA en despachos judiciales, destacando los principios de transparencia, responsabilidad y no sustitución de la racionalidad humana. Advirtió que la "falsedad de una motivación... se puede dar cuando esta produce alucinaciones que no son advertidas por el funcionario judicial" (Sentencia T-323/24).
2. Sentencia STC17832-2025: La Corte Suprema anuló una providencia del Tribunal Superior de Sincelejo que se basó en citas inexistentes (STC13560-2023 y STC4734-2025), calificándolo como un "defecto configurativo de vía de hecho" que vulneró el debido proceso (STC17832-2025).

Esta evolución interpretativa marca una transición desde una "buena fe simple" hacia un estándar de diligencia intensificado cuando se emplean herramientas tecnológicas que, por diseño, carecen de compromiso con la verdad factual.

3. Razonamiento de la Sentencia: La Pedagogía de la Corte y los Pilares de la Verificación

La Corte Suprema de Justicia, en un ejercicio de alta densidad técnica, desglosó el funcionamiento de los Modelos de Lenguaje a Gran Escala (LLM) para fundamentar la imputación de responsabilidad. Explica que sistemas como ChatGPT o Claude no son bases de datos, sino motores de predicción estadística que utilizan la arquitectura Transformer y mecanismos de atención para predecir el token (palabra o fragmento) más probable (Auto AC739-2026).

El Fenómeno de la Alucinación y el "Pseudo-derecho"

La Corte destaca que el sistema no "sabe" nada; posee una representación estadística de regularidades lingüísticas. La alucinación o confabulación ocurre cuando el modelo, al no hallar información exacta, completa la secuencia con material coherente sintácticamente pero falso fácticamente. Esto es crítico en el derecho, donde la estructura ritual (fechas, radicados, ponentes) es fácilmente replicable, creando un "pseudo-derecho" que simula la validez normativa pero carece de existencia real (Auto AC739-2026).

Los Cinco Pilares del Deber de Verificación

A la luz del canon constitucional, la Corte fundamenta la obligación positiva de verificación en cinco pilares esenciales (Auto AC739-2026, Sección 4.2):

1. Naturaleza Asertiva de la Cita: Citar una fuente implica una afirmación de hecho sobre su existencia y vigencia. Quien cita asume un compromiso con la veracidad que no se agota en la simple ausencia de dolo.
2. Desproporción entre Costo de Prevención y Daño: La verificación en repositorios oficiales (Java Consulta, Relatoría) es gratuita e inmediata, mientras que el daño de una cita falsa puede viciar una sentencia o distorsionar el litigio.
3. Confianza Institucional Estructural: El sistema adversarial presupone que las partes actúan con transparencia. Ni el juez ni la contraparte deben verse obligados a escrutar cada referencia para descartar falsedades.
4. Marco Normativo de Lealtad y Diligencia: La "celosa diligencia" (Ley 1123 de 2007) y la "buena fe" (Art. 78 CGP) exigen la comprobación de que la fuente es real.
5. Función Estructural de las Fuentes: En derecho, la fuente es el derecho. Invocar un precedente inexistente no es un argumento débil; es introducir un fundamento normativo apócrifo.

El Concepto de "Ceguera Voluntaria" (Willful Blindness)

La Corte vincula la conducta del abogado con la doctrina de la "ceguera voluntaria". Al emplear una herramienta con propensión conocida al error y omitir deliberadamente la verificación elemental, el profesional incurre en una evitación consciente del conocimiento. Si bien en materia penal se equipara funcionalmente al dolo, la Corte la utiliza aquí como un factor de intensificación de la negligencia, calificándola como una falta gravísima al deber de cuidado (Auto AC739-2026).

4. Análisis Crítico: Entre la Innovación y la Fe Pública Judicial

La providencia AC739-2026 es un ejercicio de equilibrio necesario. Su fortaleza reside en la defensa de la neutralidad tecnológica: la IA no es intrínsecamente reprochable, sino su uso acrítico.

El Principio de Iura Novit Curia

Un aspecto destacable es por qué la Corte decidió fallar de fondo a pesar de las citas apócrifas. Bajo el principio iura novit curia, el juez debe determinar el derecho aplicable independientemente de lo aducido por las partes. La Corte depuró el memorial de las fuentes falsas y, al notar que lo restante carecía de sustento legal (causales del Art. 355 CGP), rechazó el recurso (Auto AC739-2026). Esto protegió el acceso a la justicia del poderdante, evitando que la mala praxis del abogado clausurara automáticamente la oportunidad procesal, aunque finalmente no prosperara.

Comparativa Jurisdiccional y Hallucinaciones Específicas

Este fallo alinea a Colombia con la tendencia global. En Mata v. Avianca (EE.UU., 2023), el juez Kevin Castel sancionó a abogados por presentar citas de ChatGPT. Igualmente en Zhang v. Chen (Canadá, 2024). En el caso Zapata Vargas, la gravedad se ilustra con la distorsión de precedentes reales:

Elemento Citado	Contenido Real (Fuente Auténtica)	Contenido Alucinado (Zapata)
CGP Art. 250	Indivisibilidad y alcance probatorio documental.	Causales de revisión (numerales 5 y 7 inexistentes).
Sentencia T-384/19	Servicio público de alcantarillado.	Tesis sobre derecho de defensa en revisión.
Sentencia T-212/16	Disciplina de la Policía y Hábeas Data.	Omisión de notificaciones como causal autónoma.
CSJ SC-4061/2020	Inexistente en Repositorio Oficial.	Nulidad por falta de convocatoria a terceros.

Fuente: Elaboración propia basada en el informe de Relatoría citado en Auto AC739-2026.

Vacíos y Desafíos: La Transparencia Funcional

A pesar de su solidez, la sentencia deja una incertidumbre sobre la "transparencia funcional". Aunque la Corte exige advertir el uso de IA, no define si esto debe hacerse en un acápite específico o si el uso de herramientas de corrección gramatical también requiere declaración. Existe el riesgo de generar un sesgo negativo en el juzgador hacia memoriales que admitan asistencia algorítmica.

5. Implicaciones para el Derecho de la IA y Compliance Judicial

Este precedente impone una transformación en el Legal Operations de las firmas. El concepto de "Human-in-the-loop" (humano en el ciclo) pasa de ser una recomendación ética a una obligación de compliance legal para evitar la compulsa de copias a la Comisión Seccional de Disciplina Judicial.

Reinterpretación de la Temeridad y Riesgos Disciplinarios

La negligencia en el uso de herramientas digitales se asimila ahora formalmente a la temeridad procesal. La sanción de 15 SMLMV (aprox. 26 millones de pesos o 6,000 USD según Diario Libre) es ejemplarizante debido a la reincidencia. Es imperativo que los departamentos jurídicos implementen protocolos de auditoría de citas mediante el cotejo obligatorio en fuentes auténticas antes de cualquier radicación. La reputación del abogado queda indisolublemente ligada a su capacidad de supervisión tecnológica.

Impacto en la Responsabilidad Profesional

La Corte aclara que la responsabilidad es indelegable. No es admisible excusarse en que el memorial fue redactado por un pasante, un auxiliar o una IA. Quien suscribe el documento asume la autoría jurídica íntegra y garantiza la fidelidad de sus fuentes (Auto AC739-2026).

6. Prospectiva y Evolución Jurisprudencial

El fallo Zapata Vargas, en armonía con la Sentencia T-323 de 2024, sitúa a las altas cortes como los arquitectos de la regulación ética de la IA en Colombia ante la falta de una ley estatutaria.

Mandatos al Consejo Superior de la Judicatura

La Corte Constitucional otorgó un plazo de cuatro meses al Consejo Superior de la Judicatura para divulgar guías y manuales sobre IA generativa en la Rama Judicial (Sentencia T-323/24). Estos manuales deberán cubrir los 12 criterios orientadores (Transparencia, Responsabilidad, Privacidad, No sustitución, etc.). Es de esperar que estos lineamientos unifiquen el estándar de cuidado no solo para jueces, sino para los litigantes.

Horizonte Legislativo

En el Congreso, proyectos como el PL 200 de 2023 Cmara buscan codificar estos límites. Sin embargo, la jurisprudencia ya ha establecido que el abogado debe ser un filtro crítico. Mientras la tecnología avanza hacia sistemas con RAG (Retrieval-Augmented Generation) para reducir alucinaciones, la carga de verificación permanecerá en el profesional humano.

Reflexión Final: El precedente Zapata Vargas nos recuerda que en la era de la automatización, la esencia del derecho sigue siendo un acto de responsabilidad humana. La tecnología puede asistir en la síntesis y la redacción, pero no puede sustituir la validación normativa. Como sentencia magistralmente la Corte: "La herramienta asiste; el abogado decide, estructura y responde" (Auto AC739-2026). En esta línea argumentativa, la integridad del sistema judicial colombiano dependerá de la capacidad de sus operadores para utilizar la innovación sin renunciar al rigor ético que fundamenta la justicia.